Tháng 6 năm 1991 tại Đại hội đại biểu toàn quốc lần thứ VII của Đảng, ông được bầu là Ủy viên Ban Chấp hành Trung ương Đảng. Về phía quân đội, ông giữ chức Ủy viên Thường vụ Đảng ủy Quân sự Trung ương.

Tháng 6 năm 1992 tại Hội nghị Ban Chấp hành Trung ương lần thứ 13 của Đảng, ông được bầu vào Ban Bí thư Trung ương Đảng.

Tháng 1 năm 1994, tại Hội nghị đại biểu toàn quốc giữa nhiệm kỳ, ông được Ban Chấp hành Trung ương Đảng khoá VIII, bầu vào Bộ Chính trị Ban Chấp hành Trung ương Đảng Cộng sản Việt Nam.

Tháng 4 năm 1996 ông được phân công làm Thường trực Ban Bí thư Ban Chấp hành Trung ương Đảng Cộng sản Việt Nam thay Nguyễn Hà Phan bị kỷ luật.

Tại Đại hội Đại biểu toàn quốc khoá VIII Đảng Cộng sản Việt Nam (tháng 6 năm 1996), ông được bầu làm Uỷ viên Ban Thường vụ Bộ Chính trị, Thường trực Bộ Chính trị Ban Chấp hành Trung ương Đảng Cộng sản Việt Nam, Trưởng Ban Bảo vệ Chính trị Nội bộ Trung ương.

Ngày 26 tháng 12 năm 1997 tại Hội nghị Trung ương lần thứ 4 Ban Chấp hành Trung ương Đảng (khoá VIII) ông được bầu giữ chức vụ Tổng Bí thư Ban Chấp hành Trung ương Đảng Cộng sản Việt Nam.

Từ ngày 26 tháng 12 năm 1997, ông cũng là Bí thư Quân ủy Trung ương (Việt Nam).

Ông cũng là đại biểu Quốc hội khoá IX, X.

Trong nhiệm kỳ 4 năm của mình (1997-2001), Lê Khả Phiêu đã thể hiện sự kiên quyết trong công tác chống tham nhũng làm trong sạch vững mạnh Đảng Cộng sản Việt Nam.